Multi-Agent Relay Thinking
多智能体接力思考框架
🧭 多智能体接力协作优化
Zhejiang University · Nanyang Technological University · The University of Hong Kong
提出置信度引导的多智能体接力协作框架 MACR，动态转移推理权，在保持精度下大幅降低 token 开销
📌 工作参考价值（4 点）
- 在电商 Agent 工作流中，可以将多步推理任务（如商品卖点提炼、广告文案生成、query 意图改写）从“多 Agent 并行讨论再聚合”改为“接力式串行 refinement”，每个节点基于置信度决定是否继续、由哪个专职 Agent 接手，能显著降低 token 消耗，适合高并发在线服务。
- 借鉴 MACR 的 bidding 机制：为不同能力 Agent 设置轻量置信度打分器，在推理阶段动态选择下一步执行者，而不是固定 pipeline，这能提升异构模型组合的鲁棒性。
- 置信度引导的 relay triggering 可用于推荐解释生成或搜索排序后文案生成：当当前生成结果置信度低于阈值时再触发下一轮精炼，避免无意义重写，节省 LLM 调用成本。
- 主要学术贡献在于多智能体拓扑结构与协作效率，业务迁移时需注意：置信度估计本身可能引入额外开销，建议在关键高价值链路（如广告创意生成）而非全链路铺开。